为了提高风能生产的安全性和可靠性，短期预测已成为最重要的。这项研究的重点是挪威大陆架的多步时时空风速预测。图形神经网络（GNN）体系结构用于提取空间依赖性，具有不同的更新功能以学习时间相关性。这些更新功能是使用不同的神经网络体系结构实现的。近年来，一种这样的架构，即变压器，在序列建模中变得越来越流行。已经提出了对原始体系结构的各种改动，以更好地促进时间序列预测，本研究的重点是告密者Logsparse Transformer和AutoFormer。这是第一次将logsparse变压器和自动形态应用于风预测，并且第一次以任何一种或告密者的形式在时空设置以进行风向预测。通过比较时空长的短期记忆（LSTM）和多层感知器（MLP）模型，该研究表明，使用改变的变压器体系结构作为GNN中更新功能的模型能够超越这些功能。此外，我们提出了快速的傅立叶变压器（FFTRANSFORMER），该变压器是基于信号分解的新型变压器体系结构，由两个单独的流组成，分别分析趋势和周期性成分。发现FFTRANSFORMER和自动成型器可在10分钟和1小时的预测中取得优异的结果，而FFTRANSFORMER显着优于所有其他模型的4小时预测。最后，通过改变图表表示的连通性程度，该研究明确说明了所有模型如何利用空间依赖性来改善局部短期风速预测。
translated by 谷歌翻译
变形金刚是使用多层自我注意力头的神经网络模型。注意力是在变形金刚中实现的，作为“键”和“查询”的上下文嵌入。变形金刚允许从不同层重新集合注意力信息，并同时处理所有输入，在处理大量数据时，它们比复发性神经网络更方便。近年来，变形金刚在自然语言处理任务上表现出色。同时，已经做出了巨大的努力，以使变压器适应机器学习的其他领域，例如Swin Transformer和Decision Transformer。 Swin Transformer是一种有前途的神经网络体系结构，将图像像素分为小斑块，并在固定尺寸的（移位）窗口内应用本地自我发挥操作。决策变压器已成功地将变形金刚应用于离线增强学习，并表明来自Atari游戏的随机步行样本足以让代理商学习优化的行为。但是，将在线强化学习与变形金刚结合在一起是更具挑战性的。在本文中，我们进一步探讨了不修改强化学习政策的可能性，而仅使用Swin Transformer的自我发明体系结构代替卷积神经网络架构。也就是说，我们旨在改变代理商对世界的看法，而不是代理商如何计划世界。我们在街机学习环境中对49场比赛进行实验。结果表明，在街机学习环境中，使用SWIN Transform在强化学习中的评估得分明显更高。因此，我们得出的结论是，在线强化学习可以从用空间令牌嵌入来利用自我侵犯中受益。
translated by 谷歌翻译
Q学习是最著名的增强学习算法之一。使用神经网络开发该算法已经做出了巨大的努力。其中包括引导深度Q学习网络。它利用多个神经网络头将多样性引入Q学习。有时可以将多样性视为代理商在给定状态下可以采取的合理移动量，类似于RL勘探比的定义。因此，引导深度Q学习网络的性能与算法中的多样性水平深厚相关。在最初的研究中，有人指出，随机的先验可以提高模型的性能。在本文中，我们进一步探讨了用噪声代替先验的可能性，并从高斯分布中采样噪声，以将更多的多样性引入该算法。我们对Atari基准测试进行实验，并将我们的算法与原始算法和其他相关算法进行比较。结果表明，我们对自举的深Q学习算法的修改可在不同类型的Atari游戏中获得更高的评估得分。因此，我们得出的结论是，用噪声代替先验可以通过确保多样性的完整性来改善自举的深度Q学习的性能。
translated by 谷歌翻译
随着风能的渗透到电网，能够预测大型风电场的预期电力生产变得越来越重要。深度学习（DL）模型可以在数据中学习复杂的模式，并在预测唤醒损失和预期的电力生产方面找到了广泛的成功。本文提出了一种基于关注的图形神经网络（GNN）的模块化框架，其中可以应用于图形块的任何所需组件。结果表明，该模型显着优于多层的Perceptron（MLP）和双向LSTM（BLSTM）模型，同时通过Vanilla GNN模型提供性能。此外，我们认为，所提出的图表架构可以通过为要使用的所需注意操作提供灵活性来轻松适应不同的应用，这可能取决于特定应用。通过分析注意力的重量，据表明，采用基于关注的GNN可以提供洞察模型学习的内容。特别是，注意网络似乎意识到与唤醒损失的一些物理直觉对齐的涡轮机依赖性。
translated by 谷歌翻译
在Mediaeval第一次提供视觉情绪分析任务。任务的主要目的是预测对社交媒体共享的自然灾害图像的情绪反应。与灾害相关的图像通常很复杂，并且经常唤起情绪反应，使其成为视觉情绪分析的理想用例。我们认为能够对自然灾害有关的数据进行有意义的分析可能具有很大的社会重要性，这方面的共同努力可以为未来的研究开辟几个有趣的方向。该任务由三个子任务组成，每个任务旨在探索挑战的不同方面。在本文中，我们提供了任务的详细概述，任务的一般动机，以及数据集的概述以及用于评估所提出的解决方案的指标。
translated by 谷歌翻译